おそらくMicrosoftとの提携でAzure基盤をめちゃくちゃ安く仕入れているのかもしれないな。 複数の推論が必要なコスト高い問い合わせよりも、多様な使い方の前段をサービスに合わせて安く提供した方がAPI契約者が増えるし、コンテキスト必要な問い合わせは、カスタマーサポートみたいな使い方だもんな